इंटनेट इस्तेमाल करने वाली स्त्रियों की बढ़ती तादाद एक सकारात्मक बदलाव है। लेकिन, इसने और अधिक संख्या में महिलाओं को वर्चुअल दुनिया में ख़तरों के जोखिम में डाल दिया है। हाँ, ऐसा लग रहा है कि महिलाओं के प्रति ऑनलाइन अपराध की
घटनाएँ बढ़ रही हैं। इनमें यौन उत्पीड़न, धमकाने, डराने बलात्कार या जान से मार देने की धमकियाँ देने, साइबर दुनिया में पीछा करने और बिना सहमति के तस्वीरें और वीडियो शेयर करने जैसी वारदातें शामिल हैं। सर्वे में पता चला है कि 60 प्रतिशत लड़कियों और महिलाओं ने सोशल मीडिया प्लेटफॉर्म पर उत्पीड़न का सामना किया है और इनमें से लगभग 20 प्रतिशत ने इसके चलते या तो सोशल मीडिया को अलविदा कह दिया या फिर उसका इस्तेमाल कम कर दिया। भारत की अदालतें, महिलाओं के प्रति ऑनलाइन अपराधों की तुलना में ऑफलाइन जुर्मों को ज़्यादा अहमियत देती हैं।
–प्रियंका सौरभ
आर्टिफिशियल इंटेलिजेंस से उत्पन्न सामग्री के उदय ने डिजिटल स्पेस में महिलाओं के सामने आने वाली चुनौतियों को और बढ़ा दिया है, जिससे ऑनलाइन उत्पीड़न और गोपनीयता उल्लंघन के नए रूप सामने आए हैं। इसने टेक कंपनियों और सरकारों दोनों को तत्काल कार्यवाही करने की आवश्यकता बताई है। आज जब साइबर क्षेत्र में महिलाओं के लिए ख़तरे कई गुना बढ़ गए हैं, तो ऐसा कोई सुरक्षित ठिकाना नहीं बचा है, जहाँ वह छुप सकें और न ही कोई कड़ी सुरक्षा वाला इलाक़ा है, जहाँ बैठकर वह अपने सम्मान पर डाका डालने वाले साइबर ख़तरों के ख़त्म होने का इंतज़ार कर सकें। एक वैश्विक सर्वे में पता चला है कि 60 प्रतिशत लड़कियों और महिलाओं ने सोशल मीडिया प्लेटफॉर्म पर उत्पीड़न का सामना किया है और इनमें से लगभग 20 प्रतिशत ने इसके चलते या तो सोशल मीडिया को अलविदा कह दिया या फिर उसका इस्तेमाल कम कर दिया।
इसी तरह यूएन विमेन ने पाया है कि दुनिया भर में 58 प्रतिशत महिलाएँ और लड़कियों को किसी न किसी तरह के ऑनलाइन शोषण का शिकार होना पड़ा है। इनमें ट्रोलिंग, पीछा करने, डॉक्सिंग और लैंगिकता पर आधारित दूसरे तरह के ऑनलाइन हिंसक बर्ताव हैं, जो डिजिटिल युग के नए ख़तरों के तौर पर उभर रहे हैं। आर्टिफिशियल इंटेलिजेंस का उपयोग डीपफेक वीडियो और चित्र बनाने के लिए किया जा रहा है, जो महिलाओं को मनगढ़ंत सामग्री के साथ लक्षित करते हैं जो अक्सर प्रकृति में यौन या मानहानिकारक होती है। यू। एस। की उपराष्ट्रपति कमला हैरिस को 2024 के राष्ट्रपति पद के लिए अपने अभियान के दौरान झूठे और हानिकारक संदर्भों में उन्हें चित्रित करने वाले डीपफेक का सामना करना पड़ा। आर्टिफिशियल इंटेलिजेंस टूल महिलाओं के चरित्र और विश्वसनीयता को कम करने के लिए डिज़ाइन की गई झूठी कथाएँ या स्त्री-द्वेषी सामग्री फैलाते हैं, विशेष रूप से नेतृत्व की भूमिकाओं में महिलाओं को लक्षित करते हैं।
रिपब्लिकन प्राइमरी के दौरान निक्की हेली हेरफेर की गई छवियों और फ़र्ज़ी खबरों का शिकार हुईं। महिलाओं को ऑनलाइन वस्तुकरण और यौन रूप से स्पष्ट सामग्री का असंगत स्तर का सामना करना पड़ता है, जो वास्तविक नकली सामग्री बनाने की आर्टिफिशियल इंटेलिजेंस क्षमता द्वारा बढ़ाया जाता है। इतालवी प्रधान मंत्री जियोर्जिया मेलोनी की आर्टिफिशियल इंटेलिजेंस द्वारा बनाई गई स्पष्ट तस्वीरें सोशल मीडिया पर व्यापक रूप से प्रसारित हुईं। आर्टिफिशियल इंटेलिजेंस द्वारा बनाई गई डीपफेक और बदली हुई तस्वीरें महिलाओं की निजता का उल्लंघन करती हैं, जिसके परिणामस्वरूप अक्सर प्रतिष्ठा को काफ़ी नुक़सान होता है और मानसिक परेशानी होती है। बांग्लादेशी राजनेता रूमिन फरहाना को चुनावों से पहले डीपफेक सामग्री के साथ निशाना बनाया गया था। तकनीकी कंपनियों और सरकारों द्वारा समस्या को कम करने के लिए कदम। कंपनियों को त्रुटियों को रोकने के लिए मानवीय निगरानी के साथ, हानिकारक सामग्री को व्यापक रूप से प्रसारित होने से पहले सक्रिय रूप से चिह्नित करने और हटाने के लिए उन्नत आर्टिफिशियल इंटेलिजेंस डिटेक्शन सिस्टम में निवेश करना चाहिए।
मेटा (फेसबुक) ने हाल ही में डीपफेक से निपटने के लिए आर्टिफिशियल इंटेलिजेंस टूल की घोषणा की, लेकिन उनका कार्यान्वयन असंगत बना हुआ है। प्लेटफ़ॉर्म को स्पष्ट जवाबदेही उपाय प्रदान करने चाहिए और रिपोर्ट करनी चाहिए कि वे अपनी मॉडरेशन नीतियों के पारदर्शी ऑडिट के साथ फ़्लैग की गई सामग्री को कैसे संभालते हैं। यूरोपीय संघ के डिजिटल सेवा अधिनियम (2022) में डिजिटल प्लेटफ़ॉर्म को सामग्री मॉडरेशन क्रियाओं की रिपोर्ट करना अनिवार्य किया गया है। तकनीकी कंपनियों को यह सुनिश्चित करने की आवश्यकता है कि एल्गोरिदम को इस तरह से डिज़ाइन किया जाए कि लिंग पूर्वाग्रह कम हो और हानिकारक उद्देश्यों के लिए आर्टिफिशियल इंटेलिजेंस टूल का दुरुपयोग रोका जा सके। गूगल आर्टिफिशियल इंटेलिजेंस सिद्धांत आर्टिफिशियल इंटेलिजेंस के ज़िम्मेदार उपयोग पर प्रकाश डालते हैं, लेकिन अधिक कार्यान्वयन की आवश्यकता है।
सरकारों को डेटा सुरक्षा कानूनों को लागू करना चाहिए और डीपफेक-विशिष्ट कानूनों सहित एआई-जनरेटेड सामग्री के दुरुपयोग को सम्बोधित करने के लिए विशिष्ट कानूनी प्रावधान बनाने चाहिए। भारत के सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम 2021 सामग्री मॉडरेशन के लिए एक रूपरेखा प्रदान करता है, लेकिन इसमें कड़े एआई-विशिष्ट नियमों का अभाव है। सरकारों को एआई नैतिकता बोर्ड और रूपरेखाएँ स्थापित करनी चाहिए जो नैतिक एआई विकास को अनिवार्य बनाती हैं, लिंग आधारित भेदभाव को रोकने पर ध्यान केंद्रित करती हैं। यूरोपीय संघ के आर्टिफिशियल इंटेलिजेंस अधिनियम का उद्देश्य उच्च जोखिम वाली एआई प्रणालियों को विनियमित करना है, विशेष रूप से मीडिया और निगरानी में। सरकारों को डीपफेक सामग्री की पहचान करने और रिपोर्ट करने के लिए जन जागरूकता अभियान शुरू करना चाहिए, विशेष रूप से कमजोर समूहों को लक्षित करना चाहिए।
भारत का राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल एआई-जनरेटेड कंटेंट से जुड़े साइबर अपराधों की आसान रिपोर्टिंग की सुविधा देता है। निर्धारित समय सीमा के भीतर हानिकारक कंटेंट को हटाने में विफल रहने पर तकनीकी कंपनियों को मौद्रिक दंड के माध्यम से जवाबदेह ठहराया जाना चाहिए। यूरोपीय संघ में जीडीपीआर उन कंपनियों पर भारी जुर्माना लगाने की अनुमति देता है जो उपयोगकर्ताओं को डेटा के दुरुपयोग से बचाने में विफल रहती हैं। सरकारों, तकनीकी फर्मों और नागरिक समाज के बीच एक सक्रिय, बहुपक्षीय दृष्टिकोण महिलाओं के लिए सुरक्षित डिजिटल स्थानों का निर्माण सुनिश्चित करेगा, नैतिक एआई विकास और मज़बूत ऑनलाइन सुरक्षा को बढ़ावा देगा।
—
–प्रियंका सौरभ
रिसर्च स्कॉलर इन पोलिटिकल साइंस,कवयित्री, स्वतंत्र पत्रकार एवं स्तंभकार,
